#latencia de inferencia

Gemma 2B: observabilidad en Kubernetes con Prometheus y Grafana

Caso práctico de observabilidad de modelos en Kubernetes con Ollama Exporter: métricas de inferencia (latencia, tokens procesados y carga de modelo) para Prometheus y Grafana.